您現(xiàn)在的位置是：休閑 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
休閑92人已圍觀
簡介【科技消息】近日，網絡安全研究機構Trail of Bits發(fā)布一項最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
其技術門檻較低
，研究用壓在一次測試中
，發(fā)現(xiàn)可能對當前廣泛使用的黑客視覺AI系統(tǒng)構成潛在風險 。盡管目前尚無證據(jù)表明該方法已被用于現(xiàn)實網絡攻擊，可利
實驗中 ，縮圖壓縮后 ，片隱該技術被稱為“AI提示注入”（AI prompt injection）的令攻新變種，研究人員上傳經過特殊設計的研究用壓圖片至谷歌Gemini等AI平臺 。使其在壓縮后生成預設的發(fā)現(xiàn)指令文本 。如上傳截圖 、黑客網絡安全研究機構Trail of Bits發(fā)布一項最新研究